即時快訊
「公益同行・原社共好」 29家績優合作社齊聚華山 公彩成果展現就業與福利新動能 孕育兆美元輝達的傳奇美式餐廳 創辦紀念座位牌保留至今 美國屋頂太陽能發電量近十年暴增近五倍 全球運動AI市場名單出爐 日本企業掛零歐美科技巨頭強勢壟斷 創投看好AI降低門檻 一人微型創業成美國就業新趨勢 年末聚會前的輪廓焦慮?醫師 : 「看不出做過」成自然美感新趨勢 印度航太新創搶攻火箭引擎商機 獲利基訂單拚太空產業分工 葡萄牙搶攻美國資本 美資存量翻倍衝破 160 億歐元 音速小子35週年動畫短片登場 金屬索尼克反轉抉擇成亮點 PC顯卡與主機GPU差在哪?硬體整合與著色器機制成效能分水嶺
聯合國報告示警:AI發展超政府監管 全球面臨失控風險
科技生活

·4 months ago·康語柔
#人工智慧#聯合國#科技倫理#全球治理#AI風險
聯合國報告示警:AI發展超政府監管 全球面臨失控風險
商傳媒|康語柔/綜合外電報導
摘要

聯合國發布最新報告警告,人工智慧(AI)的發展速度已超越政府監管,全球面臨AI失控風險。報告列舉AI在醫療科學等領域的巨大潛力,但也點出假訊息、性虐待深偽技術、網路犯罪與環境衝擊等嚴重威脅,並強調各國政府需建立更強大的國際合作與獨立監管框架,才能確保AI的發展不至於失控。

聯合國一份最新報告指出,人工智慧(AI)的發展速度已遠超各國政府的監管能力,世界正瀕臨失控邊緣。報告強調,AI的應用能力在過去幾年呈現驚人躍進,其影響層面廣泛,從醫療、科學研究到經濟社會,但同時也帶來前所未有的挑戰與危險。

根據報告內容,AI已不再僅限於回應指令,其「代理(Agent)」功能日益強大,能夠自主規劃任務、使用數位工具、撰寫軟體,並在極少或完全無需人工干預的情況下完成複雜工作。AI的正面效益包括預測超過兩億種蛋白質結構、加速藥物研發與疫苗開發、提升抗生素抗藥性研究。在醫療領域,醫師利用AI早期偵測乳腺癌,開發中國家的醫護人員也透過在地語言的AI工具,改善病患照護。此外,AI驅動的預警系統正協助辨識糧食不安全問題,並提升身心障礙人士對科技的近用性,擴展個人化教育與心理健康支持的機會。

然而,AI的快速發展也伴隨新的危險。報告揭露,AI助長了性虐待內容與深度偽造(Deepfake)影像的散播,其中婦女和兒童面臨的風險最大。AI能生成與真實資訊幾乎無異的假訊息,嚴重動搖公眾對事實的信任,甚至威脅民主基礎。犯罪分子也利用AI進行網路攻擊、詐欺及社交工程詐騙。部分AI系統可能強化有害的信仰或行為,導致精神健康危機,甚至增加自殺風險。

隨著AI變得更加自主,專家警告,若缺乏更強大的安全防護措施,監測與治理將變得更為困難。此外,驅動AI的資料中心對能源需求龐大,導致溫室氣體排放增加,加劇全球暖化。儘管AI已在全球普及,但其資源與技術仍高度集中於少數國家。報告指出,美國擁有全球頂尖人工智慧超級電腦約四分之三的運算能力,中國則佔約15%,兩者合計近九成。大多數先進AI模型也由這兩個國家的公司開發。許多開發中國家因缺乏運算基礎設施、技術專業、資料、投資與在地語言資源,難以充分從AI獲益。

聯合國獨立國際人工智慧科學專家小組(UN Independent International Scientific Panel on Artificial Intelligence)指出,現行的治理體系並非為如此快速演進的技術而設計。儘管全球已有逾40個AI治理框架與道德準則,但這些規範零碎、不一致,且鮮少經過實際測試。許多安全評估也由開發技術的公司自行進行,缺乏獨立性。該專家小組建議,需要更強而獨立的評估、國際合作以及通用標準,以確保AI系統安全、透明且負責任。

為此,聯合國於2025年成立了由全球各區域40位專家以個人身份組成的「聯合國獨立國際人工智慧科學專家小組」。該小組的角色在於提供科學諮詢而非監管。其研究成果將匯入將於今年7月6日在瑞士日內瓦展開的「聯合國全球人工智慧治理對話 (UN Global Dialogue on AI Governance)」,屆時各會員國將共同討論管理這項技術的國際策略。該專家小組強調,人工智慧本質上無所謂好壞,其最終影響將取決於各國政府、企業與社會在今日所做的決策。


在 Google 搜尋的熱門報導中優先看到商傳媒
加入為 Google 偏好來源